想买 AI 迷你主机跑大模型，看到配置选项里内存有 16GB 和 32GB 两个版本。16GB 便宜不少，但怕跑不动；32GB 贵一截，又怕用不上。到底选哪个？多花一千多块值不值？
这是 AI 迷你主机买家最常问的问题之一。大模型对内存的消耗不是“多一点少一点”的问题——内存不够，模型根本加载不了；内存够了，速度才谈得上体验。
通过实际测试数据，帮你搞清楚 16GB 和 32GB 在跑大模型时的真实差异，以及你的场景需要多大的内存。
大模型在推理时，需要把模型参数从硬盘加载到内存中。模型文件有多大，加载到内存就占多大空间——内存容量决定了你的设备能不能跑某个模型。
| 模型规模 | 未量化（FP16） | Q4 量化后 | 建议内存 |
|---|---|---|---|
| 7B | ~14GB | ~4.5GB | 16GB |
| 13B | ~26GB | ~7.5GB | 16~32GB |
| 30B | ~60GB | ~16GB | 32~64GB |
| 70B | ~140GB | ~36GB | 64~128GB |
关键认知：16GB 是跑 7B 模型的门槛，32GB 是跑 13B 模型的门槛。
内存决定“能不能跑”，算力决定“跑多快”。两者缺一不可。
测试条件：Ubuntu 22.04 LTS，Ollama 0.5.x，Qwen2.5 系列模型，Q4 量化版本。
| 测试项 | 16GB 设备 | 32GB 设备 |
|---|---|---|
| 模型加载 | 成功（约 5 秒） | 成功（约 5 秒） |
| 推理速度 | 8~12 token/s | 8~12 token/s |
| 同时开浏览器 | 流畅（10+ 标签） | 流畅（20+ 标签） |
| 同时开 IDE | 可用 | 流畅 |
| 内存占用 | ~10GB | ~8GB（空闲更多） |
跑 7B Q4 模型，16GB 和 32GB 的推理速度几乎没有差异。16GB 足够流畅运行 7B 模型，同时还能开浏览器和办公软件。
| 测试项 | 16GB 设备 | 32GB 设备 |
|---|---|---|
| 模型加载 | 成功（约 10 秒） | 成功（约 10 秒） |
| 推理速度 | 5~8 token/s | 5~8 token/s |
| 同时开浏览器 | 略卡（仅 3~5 标签） | 流畅（15+ 标签） |
| 同时开 IDE | 可用但切换卡顿 | 流畅 |
| 内存占用 | ~14GB（接近极限） | ~10GB（有余量） |
13B Q4 模型在 16GB 设备上“勉强能跑”——模型加载成功，推理速度可用，但内存占用接近极限，开几个浏览器标签就开始卡顿。32GB 设备则从容得多，多任务体验明显更好。
| 测试项 | 16GB 设备 | 32GB 设备 |
|---|---|---|
| 模型加载 | 内存不足，无法加载 | 成功（约 20 秒） |
| 推理速度 | - | 3~5 token/s |
| 多任务 | - | 仅单任务，不能开其他程序 |
30B Q4 模型需要 ~16GB，操作系统和其他程序还需要占用部分内存——16GB 设备加载失败，32GB 设备能跑但比较吃力。
| 测试项 | 16GB 设备 | 32GB 设备 |
|---|---|---|
| 模型加载 | 无法加载 | 无法加载 |
70B 模型需要 128GB 内存（如华一精品 PB1501），16GB 和 32GB 都无法加载。
| 使用场景 | 推荐内存 | 推荐设备 |
|---|---|---|
| 7B 模型 + 日常办公（浏览器/Office） | 16GB | PB1001 / PB1202 / PB1301 |
| 13B 模型 + 轻量多任务 | 32GB | 需定制或选购支持大内存的型号 |
| 13B 模型 + 重度多任务 | 32GB | 同上 |
| 30B 模型 | 32~64GB | 需定制大内存配置 |
| 70B 模型 | 128GB | PB1501 |
| 仅做轻量推理，不开其他程序 | 16GB | 最低门槛 |
| 对比项 | 16GB 设备 | 32GB 设备 |
|---|---|---|
| 典型价格（迷你主机） | 1680~4000 元 | 4000~8000 元 |
| 差价 | - | 通常 +1000~2000 元 |
| 值不值？ | 取决于是否跑 13B 模型 | 取决于使用频率 |
关键考量：
如果你只跑 7B 模型 → 16GB 完全够用，多花 1000 元换 32GB 几乎感受不到速度差异
如果你想跑 13B 模型且日常多任务 → 32GB 是刚需，16GB 会卡
如果你想“未来 2~3 年不落伍” → 建议 32GB，给未来模型升级留余地
华一精品 PB1001 采用双 SO-DIMM 插槽设计，出厂配 16GB DDR4，后期可自行升级到 32GB 甚至 64GB。这意味着：
预算有限时，先买 16GB 版本（¥1,680）
7B 模型跑一段时间后，如果觉得不够用，花几百块加装内存即可升级
不需要整台换新
相比之下，PB1202、PB1301、PB1501 等型号采用 LPDDR5/LPDDR5x 板载内存，出厂即定型，无法后期升级。
选型建议：
不确定未来需求 → 选 PB1001（可升级）
确定只跑 7B 模型 → 16GB 够用
确定要跑 13B 模型 → 建议直接选 32GB 或更大内存的配置
A：够用。 7B Q4 模型约 4.5GB，系统占用约 2~3GB，浏览器+办公软件约 2~3GB，合计约 10~12GB。16GB 有足够余量，推理速度和 32GB 没有差异。
A：推荐 32GB。 13B Q4 模型约 7.5GB，操作系统约 2~3GB，浏览器+IDE 约 3~5GB，16GB 会接近满载，多任务明显卡顿。32GB 则从容得多。
A：不能。 30B Q4 模型约 16GB，操作系统还要占用内存，16GB 设备加载失败。
A：看场景。
如果你要跑大模型：内存是前提——算力再强，内存不够也加载不了模型
如果你模型已加载：算力决定推理速度——内存够用后，算力越强速度越快
A：看设备。 PB1001 支持后期升级（双 SO-DIMM 插槽），可以先买 16GB 用着，不够再加。PB1202/PB1301/PB1501 是板载内存，无法升级，购买时需一步到位。
A：没有明显区别。 一旦模型加载到内存，推理速度由 NPU/GPU 算力决定，内存只影响“能不能加载”和“同时能开多少程序”。16GB 和 32GB 跑同一个 7B 模型，速度几乎一样。
